Chính quyền thực dân Pháp ở Đông Dương đã xây dựng một vườn hoa ở Hà Nội mang tên ông, vườn hoa Paul Bert, ở đó có đặt tượng ông (tượng Paul Bert gửi từ Pháp sang thay thế cho tượng thần Tự do[2]). Dưới thời Đế quốc Việt Nam, Đốc lý (thị trưởng) Hà Nội là Trần Văn Lai đã cho giật đổ tượng Paul Bert đó. Vườn hoa Paul Bert sau này được đổi tên thành Vườn hoa Lý Thái Tổ.[3] Tượng Paul Bert cuối cùng bị nấu chảy để góp đồng đúc tượng Phật ở Ngũ Xã[cần dẫn nguồn].

Đồng thời, chính quyền thực dân còn đặt tên ông cho một số con phố ở Hà Nội (phố Tràng Tiền ngày nay), Hải Phòng (nay là phố Điện Biên Phủ), Nam Định (nay là phố Trần Hưng Đạo), Huế (nay là phố Trường Tiền), Đà Nẵng (nay là phố Nguyễn Du), Sài Gòn (nay là đường Trần Quang Khải). Một trường học ở Hà Nội mang tên Paul Bert này là trường Trưng Vương ở phố Hàng Bài.[cần dẫn nguồn]